Imagine o esforço de esculturar um cérebro em vez de apenas entregar um roteiro. Na era anterior da NLP, Adaptação de domínio era um processo exaustivo de Aprendizado por Transferência ou PEFT (Ajuste Fino com Eficiência de Parâmetros). Tratamos os modelos como argila, exigindo milhares de exemplos rotulados para modificar fisicamente os pesos internos — um processo que era altamente intensivo em computação e produzia versões estáticas e hiper-especializadas de modelos como o BERT.

O Catalisador GPT-3

O lançamento do GPT-3 marcou um Estado-da-Arte (SOTA) marco. Proveu que aprendizado no contexto—onde o modelo identifica padrões diretamente a partir do prompt—geralmente corresponde ou supera o desempenho do ajuste fino especializado para tarefas gerais. Passamos para inferência baseada em prompt, onde a latência e o custo das atualizações de gradiente são substituídos pela injeção estratégica de contexto.